全面指南 —用 python 提取 PDF 中各类文本内容的方法
原文地址 www.luxiangdong.com
80 后，退役码农，非专业产品经理
本文将讲述从 PDF 中将表格、图像和纯文本提取出文本信息的完整过程，主要内容：
- PDF 的分类：文本型、OCR 和扫描型
- 针对不同类型的 PDF，我们提取的理论依据
- 环境安装
- 编写提取纯文本的函数
- 编写提取图像中文本的函数
- 编写提取表格的文本内容的函数
- 最后的整合处理
随着大型语言模型 (LLM) 的应用不断发展，从简单的文本摘要和翻译，到基于情绪和财务报告主题预测股票表现，再到复杂的检索（如 RAG），都需要我们首先从真实世界提取文本数据。
有许多类型的文档共享这种非结构化信息，从网络文章、博客文章到手写信件和图表。然而，这些文本数据的很大一部分是以 PDF 格式存储和传输的（我们做的更极端，即使原先不是 PDF，一般也会先把文字进行处理好，转换为 PDF）。
因此，从 PDF 文档中提取信息，是很多类似 RAG 这样的应用第一步要处理的事情，在这个环节，我们需要做好三件事：
- 提取出来的文本要保持信息完整性，也就是准确性；
- 提出的结果需要有附加信息，也就是要保存元数据；
- 提取过程要完成自动化，也就是流程化。
然而，在我们开始之前，我们需要指定目前不同类型的 pdf，更具体地说，是出现最频繁的三种:
- 机器生成的 pdf 文件：这些 pdf 文件是在计算机上使用 W3C 技术 (如 HTML、CSS 和 Javascript) 或其他软件 (如 Adobe Acrobat、Word 或 Typora 等 MarkDown 工具) 创建的。这种类型的文件可以包含各种组件，例如图像、文本和链接，这些组件都是可以被选中、搜索和易于编辑的。
- 传统扫描文档：这些 PDF 文件是通过扫描仪、手机是的扫描王这样的 APP 从实物上扫描创建的。这些文件只不过是存储在 PDF 文件中的图像集合。也就是说，出现在这些图像中的元素，如文本或链接是不能被选择或搜索的。本质上，PDF 只是这些图像的容器而已。
- 带 OCR 的扫描文档：这种类似有点特殊，在扫描文档后，使用光学字符识别 (OCR) 软件识别文件中每个图像中的文本，将其转换为可搜索和可编辑的文本。然后软件会在图像上添加一个带有实际文本的图层，这样你就可以在浏览文件时选择它作为一个单独的组件。但是有时候我们不能完全信任 OCR，因为它还是存在一定几率的识别错误的。
另外还有一种情况是，尽管现在越来越多的机器安装了 OCR 系统，可以识别扫描文档中的文本，但仍然有一些文档以图像格式包含整页。当你读到一篇很棒的文章时，你想选中一个句子，但却选择了整个页面。这可能是由于特定 OCR 程序的限制或 OCR 根本就可有介入。为了避免在最终本文提取的时候遗漏这些 “看上去像文本的图片”，我在创建过程中需要考虑做一些处理。
考虑到所有上面说的几种不同类型的 PDF 文件格式，对 PDF 的布局进行初步分析以确定每个组件所需的适当工具就很重要了。
更具体地说，根据此分析的结果，我们将应用适当的方法从 PDF 中提取文本，无论是在具有元数据的语料库块中呈现的文本、图像中的文本还是表格中的结构化文本。在没有 OCR 的扫描文档中，从图像中识别和提取文本将非常繁重。此过程的输出将是一个 Python 字典（dictionary），其中包含为 PDF 文件的每个页面提取的信息。该字典（dictionary）中的每个键将表示文档的页码，其对应的值将是一个列表，其中包含以下 5 个嵌套列表:
- 从语料库中每个文本块提取的文本
- 每个文本块中文本的格式，包括 font-family 和 font-size
- 从页面中的图像上提取的文本
- 以结构化格式从表格中提取的文本
- 页面的完整文本内容
图 1：文本提取示意
这样，我们可以实现对每个 PDF 组件提取的文本的更合乎逻辑的分离，并且有时可以帮助我们更容易地检索通常出现在特定组件中的信息 (例如，LOGO 中的公司名称、表格中各数据的对应关系)。此外，从文本中提取的元数据，如 font-family 和 font-size，可以用来轻松地识别文本标题或高亮的重要文本，这将帮助我们进一步分离，或者在多个不同的块中对文本进行合并、排序等后续处理。最后，以 LLM 能够理解的方式保留结构化表信息将显著提高对提取数据中关系的推理质量。然后，这些信息可以在最终输出的时候保留它原本的格式。
您可以在下面的图片中看到这种方法的流程图。
PDF 提取方法的具体流程，中间会有各种适配选择
在我们开始使用 PDF 文本提取之前，应该安装必要的库。机器上首先需要安装 Python 3.10 或更高版本。你也可以安装最新的 Anaconda，我装的就是它。
PyPDF2：从存储路径读取 PDF 文件。
pip install PyPDF2
Pdfminer ：执行布局分析并从 PDF 中提取文本和格式。(.six 版本的库是支持 Python 3 的版本)
pip install pdfminer.six
Pdfplumber： 识别 PDF 页面中的 table 并从中提取信息。
pip install pdfplumber
Pdf2image：将裁剪后的 PDF 图像转换为 PNG 图像。
pip install pdf2image
PIL： 读取 PNG 图像。
pip install Pillow
Pytesseract： 从图像中提取文本使用 OCR 技术
这个安装起来有点棘手，因为首先，您需要安装Google Tesseract OCR（链接在文章底部引用区），这是一个基于 LSTM 模型的 OCR 机器，用于识别行识别和字符模式。
如果你是 Mac 用户，你可以在你的终端上通过 Brew 安装它，这样就可以了。
brew install tesseract
对于 Windows 用户，可以参照以下步骤进行安装 (https://linuxhint.com/install-tesseract-windows/)。安装软件后，需要将它们的可执行文件路径添加到计算机上的环境变量中。或者，也可以运行以下命令，使用以下代码直接将其路径包含在 Python 脚本中：%E3%80%82%E5%AE%89%E8%A3%85%E8%BD%AF%E4%BB%B6%E5%90%8E%EF%BC%8C%E9%9C%80%E8%A6%81%E5%B0%86%E5%AE%83%E4%BB%AC%E7%9A%84%E5%8F%AF%E6%89%A7%E8%A1%8C%E6%96%87%E4%BB%B6%E8%B7%AF%E5%BE%84%E6%B7%BB%E5%8A%A0%E5%88%B0%E8%AE%A1%E7%AE%97%E6%9C%BA%E4%B8%8A%E7%9A%84%E7%8E%AF%E5%A2%83%E5%8F%98%E9%87%8F%E4%B8%AD%E3%80%82%E6%88%96%E8%80%85%EF%BC%8C%E4%B9%9F%E5%8F%AF%E4%BB%A5%E8%BF%90%E8%A1%8C%E4%BB%A5%E4%B8%8B%E5%91%BD%E4%BB%A4%EF%BC%8C%E4%BD%BF%E7%94%A8%E4%BB%A5%E4%B8%8B%E4%BB%A3%E7%A0%81%E7%9B%B4%E6%8E%A5%E5%B0%86%E5%85%B6%E8%B7%AF%E5%BE%84%E5%8C%85%E5%90%AB%E5%9C%A8Python%E8%84%9A%E6%9C%AC%E4%B8%AD%EF%BC%9A)
pytesseract.pytesseract.tesseract_cmd = r'C:\Program Files\Tesseract-OCR\tesseract.exe'
然后就可以安装 Python 库了
pip install pytesseract
最后，我们将在程序中导入所有库：
import PyPDF2
from pdfminer.high_level import extract_pages, extract_text
from pdfminer.layout import LTTextContainer, LTChar, LTRect, LTFigure
import pdfplumber
from PIL import Image
from pdf2image import convert_from_path
import pytesseract
import os
现在我们都准备好了，让我们来试一下这些库怎么样。
布局分析，理解什么是 LOGO，什么是标题，什么是表格等
对于初步分析，我们使用 PDFMiner 的 Python 库将文档对象中的文本分离为多个页面对象，然后分解并检查每个页面的布局。PDF 文件本身缺乏结构化信息，如我们可以一眼识别的段落、句子或单词等。相反，它们只理解文本中的单个字符及其在页面上的位置。通过这种方式，PDFMiner 尝试将页面的内容重构为单个字符及其在文件中的位置。然后，通过比较这些字符与其他字符的距离，它组成适当的单词、句子、行和文本段落。为了实现这一点，PDFMiner 使用高级函数extract_pages()从 PDF 文件中分离各个页面，并将它们转换为 LTPage 对象。
然后，对于每个 LTPage 对象，它从上到下遍历每个元素，并尝试将适当的组件识别为:
- LTFigure：表示 PDF 中页面上的图形或图像的区域。
- LTTextContainer：代表一个矩形区域（段落）中的一组文本行（line），然后进一步分析成 LTTextLine 对象的列表。它们中的每一个都表示一个 LTChar 对象列表，这些对象存储文本的单个字符及其元数据。
- LTRect 表示一个二维矩形，可用于在 LTPage 对象中占位区或者 Panel，图形或创建表。
因此，使用 Python 对页面进行重构之后，将页面元素分类为 LTFigure(图像或图形)、LTTextContainer(文本信息) 或 LTRect(表格)，我们就可以选择适当的函数来更好地提取内容信息了。
for pagenum, page in enumerate(extract_pages(pdf_path)):
for element in page:
if isinstance(element, LTTextContainer):
pass
pass
if isinstance(element, LTFigure):
pass
pass
if isinstance(element, LTRect):
pass
pass
现在我们了解了流程的结构原理，接下来我们来创建从不同组件种提取文本所需的函数。
从这里开始，从 PDF 中提取文本就非常简单了。
def text_extraction(element):
line_text = element.get_text()
line_formats = []
for text_line in element:
if isinstance(text_line, LTTextContainer):
for character in text_line:
if isinstance(character, LTChar):
line_formats.append(character.fontname)
line_formats.append(character.size)
format_per_line = list(set(line_formats))
return (line_text, format_per_line)
因此，要从文本容器中提取文本，我们只需使用 LTTextContainer 元素的 get_text() 方法。此方法检索构成特定语料库框中单词的所有字符，并将输出存储在文本数据列表中。此列表中的每个元素表示容器中包含的原始文本信息。
现在，为了识别该文本的格式，我们遍历 LTTextContainer 对象，以单独访问该语料库的每个文本行。在每次迭代中，都会创建一个新的 LTTextLine 对象，表示该语料库块中的一行文本。然后检查嵌套的 line 元素是否包含文本。如果是，我们将每个单独的字符元素作为 LTChar 访问，其中包含该字符的所有元数据。从这个元数据中，我们提取两种类型的格式，并将它们存储在一个单独的列表中，对应于检查的文本:
- 字符的 font-family，包括字符是粗体还是斜体
- 字符的 font-size
通常，特定文本块中的字符往往具有一致的格式，除非某些字符以粗体突出显示。为了便于进一步分析，我们捕获文本中所有字符的文本格式的唯一值，并将它们存储在适当的列表中。
获取字体、尺寸等元数据的过程
在这里，我认为这是一个更棘手的部分。如何处理在 PDF 中找到的图像中的文本?
首先，我们需要在这里确定存储在 pdf 中的图像元素与文件的格式不同，例如 JPEG 或 PNG。这样，为了对它们应用 OCR 软件，我们需要首先将它们从文件中分离出来，然后将它们转换为图像格式。
def crop_image(element, pageObj):
[image_left, image_top, image_right, image_bottom] = [element.x0,element.y0,element.x1,element.y1]
pageObj.mediabox.lower_left = (image_left, image_bottom)
pageObj.mediabox.upper_right = (image_right, image_top)
cropped_pdf_writer = PyPDF2.PdfWriter()
cropped_pdf_writer.add_page(pageObj)
with open('cropped_image.pdf', 'wb') as cropped_pdf_file:
cropped_pdf_writer.write(cropped_pdf_file)
def convert_to_images(input_file,):
images = convert_from_path(input_file)
image = images[0]
output_file = "PDF_image.png"
image.save(output_file, "PNG")
def image_to_text(image_path):
img = Image.open(image_path)
text = pytesseract.image_to_string(img)
return text
为此，我们遵循以下流程:
- 我们使用从 PDFMiner 检测到的 LTFigure 对象的元数据来裁剪图像框，利用其在页面布局中的坐标。然后使用 PyPDF2 库将其保存为新的 PDF 文件。
- 然后，我们使用 pdf2image 库中的 convert_from_file() 函数将目录中的所有 PDF 文件转换为图像列表，并以 PNG 格式保存它们。
- 最后，现在我们有了图像文件，我们使用 PIL 模块的 image 包在脚本中读取它们，并实现 pytesseract 的 image_to_string() 函数，使用 tesseract OCR 引擎从图像中提取文本。
结果，这个过程返回图像中的文本，然后我们将其保存在输出字典中的第三个列表中。此列表包含从检查页面上的图像中提取的文本信息。
在本节中，我们将从 PDF 页面上的表格中提取更具逻辑结构的文本。这是一个比从语料库中提取文本稍微复杂的任务，因为我们需要考虑信息的粒度和表中呈现的数据点之间形成的关系。
虽然有几个库用于从 pdf 中提取表数据，其中 Tabula-py 是最著名的库之一，但我们已经确定了它们在功能上的某些限制。
在我们看来，最明显的问题来自于库在表的文本中使用换行特殊字符 \ n 来标识表的不同行。这在大多数情况下工作得很好，但是当单元格中的文本被包装成 2 行或更多行时，它无法正确捕获，从而导致添加不必要的空行并丢失提取的单元格的上下文。
当我们尝试使用 tabula-py 从一个表中提取数据时，你可以看到下面的例子:
提取表格信息，虽然转化为文本了，但是我们依然可以保留表格的信息
然后，提取的信息以 Pandas DataFrame 而不是字符串的形式输出。在大多数情况下，这可能是一种理想的格式，但是在考虑文本的 Transformers 的情况下，这些结果需要在输入到模型之前进行转换。
出于这个原因，出于各种原因，我们使用了 pdfplumber 库来处理这个任务。首先，它是基于 pdfminer 构建的。我们初步分析时用了六个，也就是说里面有类似的物品。此外，它的表检测方法基于行元素及其交点，这些交点构建包含文本的单元格，然后是表本身。这样，在确定表的单元格之后，我们就可以提取单元格中的内容，而不必携带需要呈现的行数。然后，当我们拥有表的内容时，将其格式化为类似表的字符串，并将其存储在适当的列表中。
def extract_table(pdf_path, page_num, table_num):
pdf = pdfplumber.open(pdf_path)
table_page = pdf.pages[page_num]
table = table_page.extract_tables()[table_num]
return table
def table_converter(table):
table_string = ''
for row_num in range(len(table)):
row = table[row_num]
cleaned_row = [item.replace('\n', ' ') if item is not None and '\n' in item else 'None' if item is None else item for item in row]
table_string+=('|'+'|'.join(cleaned_row)+'|'+'\n')
table_string = table_string[:-1]
return table_string
为了实现这一点，我们创建了两个函数，**extract_table() **用于将表的内容提取到一个列表的列表中，table_converter() 用于将这些列表的内容连接到一个类似表的字符串中。
extract_table() 函数中:
- 我们打开 PDF 文件。
- 我们导航到 PDF 文件的检查页面。
- 从 pdfplumber 在页面上找到的表列表中，我们选择所需的表。
- 我们提取表的内容，并将其输出到一个嵌套列表的列表中，该列表表示表的每一行。
在 table_converter() 函数:
- 我们在每个嵌套列表中迭代，并清除其上下文中来自任何换行文本的任何不需要的换行符。
- 我们通过使用 | 符号将行中的每个元素分开来连接它们，从而创建表单元格的结构。
- 最后，我们在末尾添加一个换行符以移动到下一行。
这将产生一个文本字符串，该字符串将显示表的内容，而不会丢失其中显示的数据的粒度。
现在我们已经准备好了代码的所有组件，让我们将它们全部添加到一个功能齐全的代码中。
pdf_path = 'OFFER 3.pdf'
pdfFileObj = open(pdf_path, 'rb')
pdfReaded = PyPDF2.PdfReader(pdfFileObj)
text_per_page = {}
for pagenum, page in enumerate(extract_pages(pdf_path)):
pageObj = pdfReaded.pages[pagenum]
page_text = []
line_format = []
text_from_images = []
text_from_tables = []
page_content = []
table_num = 0
first_element= True
table_extraction_flag= False
pdf = pdfplumber.open(pdf_path)
page_tables = pdf.pages[pagenum]
tables = page_tables.find_tables()
page_elements = [(element.y1, element) for element in page._objs]
page_elements.sort(key=lambda a: a[0], reverse=True)
for i,component in enumerate(page_elements):
pos= component[0]
element = component[1]
if isinstance(element, LTTextContainer):
if table_extraction_flag == False:
(line_text, format_per_line) = text_extraction(element)
page_text.append(line_text)
line_format.append(format_per_line)
page_content.append(line_text)
else:
pass
if isinstance(element, LTFigure):
crop_image(element, pageObj)
convert_to_images('cropped_image.pdf')
image_text = image_to_text('PDF_image.png')
text_from_images.append(image_text)
page_content.append(image_text)
page_text.append('image')
line_format.append('image')
if isinstance(element, LTRect):
if first_element == True and (table_num+1) <= len(tables):
lower_side = page.bbox[3] - tables[table_num].bbox[3]
upper_side = element.y1
table = extract_table(pdf_path, pagenum, table_num)
table_string = table_converter(table)
text_from_tables.append(table_string)
page_content.append(table_string)
table_extraction_flag = True
first_element = False
page_text.append('table')
line_format.append('table')
if element.y0 >= lower_side and element.y1 <= upper_side:
pass
elif not isinstance(page_elements[i+1][1], LTRect):
table_extraction_flag = False
first_element = True
table_num+=1
dctkey = 'Page_'+str(pagenum)
text_per_page[dctkey]= [page_text, line_format, text_from_images,text_from_tables, page_content]
pdfFileObj.close()
os.remove('cropped_image.pdf')
os.remove('PDF_image.png')
result = ''.join(text_per_page['Page_0'][4])
print(result)
上面的脚本将运行：
-
导入必要的库；
-
使用 pyPDF2 库打开 PDF 文件；
-
提取 PDF 的每个页面并重复以下步骤；
-
检查页面上是否有任何表，并使用 pdfplumner 创建它们的列表；
-
查找页面中嵌套的所有元素，并按照它们在页面布局中出现的顺序对它们进行排序。
然后对于每个元素:
检查它是否是一个文本容器，并且没有出现在表元素中。然后使用 text_extraction() 函数提取文本及其格式，否则传递该文本。
检查它是否为图像，并使用 crop_image() 函数从 PDF 中裁剪图像组件，使用 convert_to_images() 将其转换为图像文件，并使用 image_to_text() 函数使用 OCR 从中提取文本。
检查它是否是一个矩形元素。在这种情况下，我们检查第一个矩形是否是页表的一部分，如果是，我们移动到以下步骤:
- 查找表的边界框，以便不再使用 text_extraction() 函数提取其文本。
- 提取表的内容并将其转换为字符串。
- 然后添加一个布尔参数来说明我们是从 Table 中提取文本的。
- 此过程将在最后一个 LTRect 落在表的边界框中并且布局中的下一个元素不是矩形对象之后结束。(构成表的所有其他对象都将被传递)
每次迭代的输出将存储在 5 个列表中，命名为:
- page_text：包含来自 PDF 中文本容器的文本 (当文本从另一个元素中提取时，将放置占位符)
- Line_format：包含上面提取的文本的格式 (当文本从另一个元素提取时，将放置占位符)
- Text_from_images：包含从页面上的图像中提取的文本
- Text_from_tables：包含带有表内容的类表字符串
- Page_content：以元素列表的形式包含页面上呈现的所有文本
所有的列表将被存储在字典的关键, 将代表每次检查页面的数量。
之后，我们将关闭 PDF 文件。
然后，我们将删除在此过程中创建的所有附加文件。
最后，我们可以通过连接 page_content 列表的元素来显示页面的内容。
我认为这是一种利用了各种库的最佳特性的方法，使过程能够适应我们可能遇到的各种类型的 pdf 和元素，但 PDFMiner 完成了大部分繁重的工作。同时, 信息的格式文本可以帮助我们识别潜在的标题文本分离成不同的逻辑部分而不是每个页面内容并可以帮助我们识别文本更重要的。
然而，总是会有更有效的方法来做这个任务，尽管我认为这种方法是更具包容性。
- https://www.techopedia.com/12-practical-large-language-model-llm-applications
- https://www.pdfa.org/wp-content/uploads/2018/06/1330_Johnson.pdf
- https://pdfpro.com/blog/guides/pdf-ocr-guide/#:~:text=OCR technology reads text from, a searchable and editable PDF.
- https://pdfminersix.readthedocs.io/en/latest/topic/converting_pdf_to_text.html#id1
- https://github.com/pdfminer/pdfminer.six
- Google Tesseract OCR：https://github.com/tesseract-ocr/tesseract